Niveau supérieur ! Tu es désormais un détective de l'IA !Pas tout à fait ! Vérifie les indices à nouveau.Indicateur de confiance mis à jour ... Est-ce que c'est ... ? ... Ou ...
Si une IA est entraînée sur des données qui manquent certains groupes de personnes, qu'est-ce que l'IA deviendra ?
Exactement ! L'IA est un miroir. Si les données sont injustes ou incomplètes, les décisions de l'IA seront biaisées.
Comment appelle-t-on le fait qu'une IA invente une fausse information qui semble réelle ?
Parfait ! C'est appelé une hallucination : l'IA « rêve » des réponses en se basant sur des motifs de mots.
Une IA connaît-elle toujours la « vérité » ?
Exactement ! L'IA recherche des motifs et des probabilités, ce qui n'est pas toujours la même chose que la vérité.
Pourquoi une IA de tri de CV pourrait-elle ignorer des personnes talentueuses issues de milieux différents ?
Exactement ! Si les données d'entraînement sont limitées, l'IA conclut mathématiquement que « différent » signifie « non qualifié ».
Que devrais-tu faire si une IA te donne une information pour un projet scolaire ?
Parfait ! Vérifiez toujours les informations de l'IA car elle peut parfois « halluciner » des détails faux avec assurance.
L'IA fait des erreurs par hasard maintenant, mais les gens pourraient-ils utiliser l'IA intentionnellement pour tromper les autres plus tard ?
Oui ! Comme nous le verrons ensuite, comprendre les erreurs de l'IA nous aide à nous préparer à un monde de tromperies intentionnelles.
1
Biais et hallucinations de l'IA
EvoClass-AI004Lecture 10
0
🤖 Bip Bip ! Je suis ton guide éthique. Choisis une énigme à résoudre : Biais des données ou hallucinations de l'IA !
Commande de Py-BotEN DIRECT
Bip ! Bonjour, détective ! Aujourd'hui, nous apprenons que l'IA n'a pas toujours raison. Parfois, elle copie nos erreurs, et parfois, elle invente simplement des choses !
Progrès du sujet0%
Pense à l'IA comme à un miroir. Si on ne lui montre que des photos de chats, elle pourrait croire que les chiens n'existent pas ! Si nos données contiennent des préjugés anciens, l'IA va les reproduire. Comme un robot de recrutement qui ne choisit qu'un seul type de personne parce que c'est tout ce qu'il a vu par le passé. Cela s'appelle le « biais algorithmique ».
1
Sous-thème 1
Le miroir (biais)
L'IA reflète les données que nous lui donnons — même les parties injustes.
Contrairement à toi, l'IA déteste dire « je ne sais pas ». Elle prédit le mot suivant comme un gigantesque jeu de « Mad Libs ». Parfois, elle « hallucine » et invente des faits qui sonnent vrais mais sont complètement faux ! Elle suit simplement un motif, sans vérifier la vérité.
2
Sous-thème 2
Le rêveur (hallucination)
Quand l'IA paraît extrêmement confiante mais est totalement fausse.
Même les IA les plus intelligentes du monde commettent encore des erreurs. Vérifie toujours tes faits avec une source fiable !
Savais-tu que ?
Même les IA les plus intelligentes du monde commettent encore des erreurs. Vérifie toujours tes faits avec une source fiable !
Chargement...
⭐⭐⭐

Mission terminée !

Tu es un détective de l'IA !